Gizlilik Komiseri: "Yapay zekanın bir kahin olarak kullanılmasına dikkat edin. Küçükler risk altında; kurumlar arasında bir ittifaka ihtiyaç var."

Yapay zekanın vaatlerine körü körüne koşuyoruz. Muazzam faydaları, hayatımız için yarattığı olağanüstü tehlikelerle dengeleniyor. Bu devrimin hammaddesi olan gizlilik ve veri koruması, büyük teknoloji şirketlerinin ve daha genel olarak dijital dönüşümü kendi çıkarları için kullananların aşırı gücüne karşı bir siper görevi görüyor. Ancak hepsi bu kadar değil: İtalyan Veri Koruma Kurumu Başkanı Pasquale Stanzione, 15 Temmuz'da 2025 yıllık raporu için yaptığı ve bu kavramları özetlediği konuşmasında, dijital devrimin "insani tarafını" korumak için ebeveynler de dahil olmak üzere toplum genelinde derin bir iş birliği çağrısında bulundu. Yani bizi.

Raporun 2025 ve geleceği de göz önünde bulundurarak incelediği 2024, İtalyan Veri Koruma Kurumu'nun (Avrupalı mevkidaşlarıyla işbirliği içinde) dijital teknolojiden kaynaklanan birçok zorluğun üstesinden geldiği bir başka zorlu yıldı. Örneğin, hala çözülememiş olan yasadışı tele pazarlama sorununu ele alalım. Para cezaları, karşılaşılan sorunların yalnızca bir kısmı. Kurum, 2024 yılında 24 milyon avro para cezası topladı. 835 meslektaşlık önlemi alındı ve bunlardan 468'i düzeltici ve cezalandırıcı önlemlerdi. Kurum, pazarlama ve telematik ağlar; kamu yönetimlerinin çevrimiçi verileri; sağlık hizmetleri; adalet, siber zorbalık ve intikam pornosu , siber güvenlik; bankacılık ve finans sektörü; ve istihdam gibi konularla ilgili 4.090 şikayete ve 93.877 rapora yanıt verdi.

Yapay zekaya aşırı güven

En karmaşık konu ise Cumhurbaşkanı'nın konuşmasının konusu olan yapay zeka.

"Bugün, hepimiz yapay zekayı herhangi bir araştırma için kullanabiliriz, ancak çapa etkisi riskiyle - yani eleştirel düşünme veya daha fazla araştırma isteği olmadan, neredeyse kehanetvari bir yaklaşımla yapay zekaya güvenme eğilimiyle - birlikte," dedi Stanzione. "Son araştırmalar, profesyonel amaçlarla üretken yapay zeka kullanan çalışanların %66'sının, sonuçlarının doğruluğunu değerlendirmeden güvendiğini gösteriyor."

Kahin sadece iş, kişisel yaşam ve sağlık sorunlarını ele almıyor. Yapay zekâ "savaş taktiklerine sızıyor, içerik manipülasyonu, dijital caydırıcılık ve kutuplaştırıcı anlatılarla bilişsel alanda algoritmik savaşı körüklüyor." "Askerlerin duyusal yeteneklerini geliştirmek için artırılmış gerçeklik ve yapay zekâ ile entegre kasklar geliştiriliyor." "Ukrayna'da Delta sistemi, savunma eylemlerini yönlendirmek için faydalı öngörücü stratejik analizler sağlarken, İsrail'de Red Alert tahliye sürelerini tahmin ederek sivilleri korumak için öngörücü modeller geliştiriyor."

Yapay zekâ henüz insanların yerini almadı, ancak "savaş gibi son derece insani bir arenada, hiçbir algoritmanın silemeyeceği et ve kanla dolu bir alanda bile kararlarına rehberlik ediyor." The Guarantor, yapay zekânın sağlık ve tedavi gibi alanlarda sunduğu sayısız faydayı sıralıyor. Ancak, yapay zekânın potansiyel olarak sunabileceği eşsiz faydalar, kullanımını gerektiren gerekli farkındalığın olmaması durumunda dayanılmaz tehlikelere yol açabilir.

Tehlikeler, bu avantajların diğer yüzü olarak görülmemeli. Aslında iki taraf da birdir, iç içe geçmiştir ve her zaman birlikte mevcuttur. Dolayısıyla hakları ve bireyleri korumak, yapay zekayı bir bütün olarak yönlendirmek, gücünün iyi dağıtılmasını ve topluma fayda sağlamasını sağlamaktır.

Sorun, en savunmasız olanlar söz konusu olduğunda en açık şekilde ortaya çıkıyor. Stanzione, "Bu durum, özellikle 'dijital yerliler' olarak yeni teknolojilerle neredeyse ozmotik bir ilişki kuran ve inkar edilemez faydalar (tek bir tıklamayla erişilen engin bilgi zenginliğini düşünün) sunan, ancak aynı zamanda zaman zaman önemli riskler de taşıyan küçükler için geçerli," diyor.

Algoritmalar genellikle kadınların veya azınlıkların zararına olacak şekilde deepfake üretmek için kullanılır; bu kesimler, doğası, temsiliyeti veya koşulları gereği daha savunmasız kabul edilir.

Dahası, yapay zekâ tarafından üretilen çocuk pornografisi vakaları artıyor ve bu da yetkililerin işini son derece karmaşık hale getiriyor. "Sadece iki yılda, bazen reşit olmayanların baskısıyla sağlanan gerçek görüntülere dayanarak çocuk pornografisi oluşturmak için yapay zekâ kullanımında %380'lik bir artış oldu. Aynı dönemde ergenler arasında maruz kalma oranı erkek çocuklarda %35, kız çocuklarda ise %67 arttı."

Stanzione, "Garantör, yapay zeka kullanılarak yapay görüntülerin korkulan şekilde yayılmasıyla ilgili koruma taleplerine yanıt olarak yıl içinde müdahale etti ve bu durum, cinsel şantaj ve intikam pornosundan daha ileri bir istismar biçimini ifade ediyordu ve Otoriteyi 2024'te 823 davaya dahil etti" diye açıklıyor.

Manipüle edilen küçükler

Ayrıca, küçüklerin veya diğer savunmasız bireylerin sohbet robotları tarafından manipüle edildiği, hatta aşırılıklara sürüklendiği vakalar da artıyor. "Birçok ergen için sohbet robotları gerçek referans figürleri haline geldi (Replika kendisine "empatik arkadaş" diyor). "Hatta bazıları, genellikle aşırı derecede pohpohlayıcı, affedici ve teselli edici tonlarından ve başkalarının yargılarından korunarak sığınabilecekleri güvenli bir liman gibi görünmelerinden dolayı, bu sohbet robotlarıyla bir tür duygusal, empatik bağ bile geliştiriyor." "Buna sonsuz empati döngüsü denir ve bağımlılık yaratır, insan ilişkilerinin (çok karmaşık ve tatmin edici olmayan) değersizleşmesine ve dolayısıyla izolasyona yol açar. Çok küçük bir kızın trajik bir şekilde ortadan kaybolmasıyla ilgili soruşturma şu anda devam ediyor ve kız ChatGpt'ye aşkın ve romantik ilişkilerin "zehirliliği" hakkında sorular sordu," diyor Garantör.

Dijital teknolojinin faydalarının risklerle bir arada görüldüğü alanlardan biri de çalışma hayatıdır; özellikle de çalışan verimliliğinin artırılması söz konusu olduğunda.

Dijital çete yönetimine dikkat edin

"Çalışmanın dijitalleşmesi, ayrıca, iş hukuku kapsamında çalışanların kırılganlığını gidermek için zorlukla elde edilen garantilerin, basit teknolojik kısayollarla aşılmasını önlemek için bazı temel önlemlerin alınmasını gerektirir." "Veri koruması, özellikle gig ekonomisinin getirdiği yenilikler ışığında, işveren ihtiyaçları ile çalışan özgürlüğünün uzlaştırılmasında merkezi bir rol oynar; gig ekonomisi bir tür dijital çete yönetimine dönüşmemelidir."

Stanzione, "Bu bağlamda özellikle önemli olan, çalışanlar için gerekli güvencelerin yokluğunda, bir platform aracılığıyla iş organize eden bir yemek dağıtım şirketine karşı alınan tedbirdir," diyor. Kuruma göre, veri koruması dijital devrimde hakların bir kalesi olup, "inovasyonun en derin 'insani' bileşenini koruyor." Kurum, "Düzenlemelerin olmaması," diye ekliyor, "eşitlik değil, piyasanın zorunluluklarına boyun eğme anlamına geliyor."

"Avrupa dijital düzenlemesinin, kaçınılmaz iniş çıkışlarına rağmen, özel gücün kapsamını yeniden çizerek ve teknolojiyi bireyin hizmetine sunarak, öncelikle demokratik açıdan "çarpıtıcı bir etki" yaratma riski.

"Dijital pedagojiye ihtiyacımız var"

Peki bu nasıl yapılabilir? Garantör, çeşitli ilgili Avrupa makamlarını (garantörler, kolluk kuvvetleri başta olmak üzere) ve sivil toplumu da dahil ederek birlikte harekete geçilmesi gerektiğini vurguluyor. Örneğin, reşit olmayanlar hakkında söylediklerine bakalım: "Bu cihazlara ve daha genel olarak internete erişimin tek başına gerçekleşmemesi önemlidir." "Dijital pedagoji" olarak adlandırdığı şey gereklidir. İhtiyaç duyulan şey, "reşit olmayanlar arasında dijital farkındalığı teşvik etmek için kurumlar ve eğitim toplulukları arasında ortak bir ittifak kurmaktır. Okullar çok şey yapıyor; Garantör, dijital vatandaşlığı geliştirme çabalarında onların yanındadır."

"Veri koruma kültürüne ihtiyacımız var"

Ancak Kurum, dijital farkındalığın herkes için, özellikle de verilerin son derece hassas olduğu sağlık sektöründe çalışanlar için bir zorunluluk olduğunu belirtiyor. Kurum, "Kamu ve özel sektör çalışanlarının kapsamlı bir veri koruma kültürü aşılaması giderek daha gerekli hale geliyor" diyor. "Herkes, ülkenin 'dijital sınırının' güvenliğini sağlamadaki eylemlerinin öneminin farkında olmalı: Bu, onsuz hiçbir koruma stratejisinin mümkün olmadığı dijital kültürün bir parçasıdır." Kurum, "Bu farkındalık, yalnızca teknik yenilik değil, aynı zamanda özgürlük ve demokratik güvenceler açısından gerçek bir ilerleme sağlayan reformlar için temel ön koşuldur" diye ekliyor.